Evidence-Aligned Entity Verification for Hallucination Detection in Retrieval-Augmented Generation
检索增强生成中用于幻觉检测的证据对齐实体验证
🧭 RAG幻觉检测·实体证据对齐
University of Technology Sydney
提出 EAEV，在实体层面用 RAG 对齐生成与检索证据，结合三维对齐评估和反事实稳定性分析，一致提升 RAG 幻觉检测性能
📌 工作参考价值（4 点）
- 在电商商品文案/搜索结果生成中，可借鉴实体级幻觉检测：将商品属性（品牌、型号、参数）作为实体，逐项验证生成文本与商品知识库/活动规则的证据对齐，比整体一致性打分更细粒度、可定位错误属性。
- 采用多维度对齐信号：可设计“实体是否在证据中出现”“实体上下文是否一致”“实体关系是否冲突”等互补指标，结合轻量规则或分类器进行 RAG 输出校验，适合低延迟的线上 Agent 回复。
- 反事实稳定性分析可迁移为回归测试：对检索到的证据文本做小扰动（替换同义词、增减片段），要求生成关键实体保持稳定，若翻转则标记高风险幻觉，提升对检索噪声的鲁棒性。
- 用 RAG 做幻觉检测而非仅生成，可解决模型参数知识过时的问题，特别适合电商频繁更新的价格、库存、促销等时效性知识。